Hoppa yfir valmynd

Haus fyrir smærri skjái

Merki Stjórnarráðs Íslands Stjórnarráð Íslands

Gervigreind hjá hinu opinbera

Gervigreind skapar tækifæri í opinberri þjónustu

Með notkun gervigreindar geta verið tækifæri til umbyltingar á ýmsum sviðum. Meðal helstu tækifæra fyrir starfsemi hins opinbera eru:

Eftirlit með reglufylgni, svo sem með frávikagreiningum og mat á hvort skilyrði, svo sem fyrir fjárhagslegum stuðningi, eru uppfyllt.
Notkunin getur bætt þjónustu við almenning. Þannig er hægt að bæta þjónustuupplifun, til dæmis með því að stytta afgreiðslutíma og auka aðgengi að þjónustu með því að veita sneggri svör við fyrirspurnum og hafa þau á mismunandi tungumálum. Jafnframt má auka samræmi í ákvarðanatöku með því að lágmarka huglægt mat.
Aukin skilvirkni í starfsemi, meðal annars með því að nýta gervigreind í einföld verkefni sem annars krefðust meiri aðkomu starfsfólks. Þetta gætu til að mynda verið síendurtekin og tímafrek verkefni sem krefjast ekki mikillar sérfræðiþekkingar, en er ekki hægt að leysa með einfaldri sjálfvirknivæðingu
Hagnýting gagnagreiningar við stefnumörkun, sérsniðnar ákvarðanatökur og í þjónustu hins opinbera. Hægt er að nýta mikið stærri gagnasett en áður til þess að taka betri ákvarðanir sem eru jafnvel sérsniðnar að ákveðnum forgangsmálum.

Atriði sem líta skal til við notkun gervigreindar

Gervigreind er öflugt tól sem getur aukið skilvirkni og gæði opinberrar þjónustu. Notkun hennar hefur jafnframt í för með sér áskoranir svo sem hugsanlega hlutdrægni og skort á gagnsæi. Þess vegna er mikilvægt að vandað sé til verka við þróun, innleiðingu og notkun gervigreindar.

Eftirtalin atriði skal almennt hafa í huga:

Öll notkun gervigreindar byggist á gögnum. Gæði, áreiðanleiki og fjölbreytileiki gagnanna ræður miklu um frammistöðu gervigreindarkerfis. Jafnframt þarf að hafa í huga að ekki er alltaf heimilt að nota gögn sem stjórnvöld hafa umráð yfir við þjálfun kerfisins, til að mynda þegar gögnin eru bundnum sérstökum trúnaði eða notkun þeirra í þessum tilgangi væri í andstöðu við lög um persónuvernd og vinnslu persónuupplýsinga.
Við mat á því hvort gögn eru hæf til þessarar notkunar skal meðal annars líta til eftirfarandi:

• Gögn skulu vera rétt, áreiðanleg, sannreynanleg og fjölbreytt.
• Aðferðir við gagnaöflun skulu vera gagnsæjar og í samræmi við almenn siðferðisviðmið í opinberri stjórnsýslu.
• Gögn skulu vera viðeigandi m.t.t. fyrirhugaðs tilgangs í hvert og eitt skipti.
• Komi fram skekkjur eða gloppur í gögnum skal leiðrétta þær.
• Gögn geta falið í sér hlutdrægni, mismunum eða fordóma sem geta skaðað tiltekna hópa eða einstaklinga. Gæta þarf varúðar við notkun gagnasetta og mögulega getur verið nauðsynlegt að framkvæma úttekt á gagnasettinu.
Notkun ætti að vera í samræmi við skýrar stefnur, staðla og almennar siðferðis- og lagareglur sem gilda um opinbera stjórnsýslu.
Við mótun umgjarðar gervigreindarnotkunar getur meðal annars þurft að líta til eftirfarandi:
• Notkun sé í fullu samræmi við lagalegar skyldur í opinberri stjórnsýslu. Í því felst meðal annars að farið sé eftir stjórnsýslulögum, lögum um persónuvernd og vinnslu persónuupplýsinga og öðrum reglum eða viðmiðum sem einkenna vandaða stjórnsýslu.
• Framkvæma skal mat á áhættu við notkun tiltekinna aðferða og huga að mögulegum mótvægisaðgerðum.
• Aðferðin sem er beitt hverju sinni skal vera í samræmi við verkefnið eða áskorunina sem er til úrlausnar. Í því felst bæði að væntur ávinningur skal metinn í samræmi við fyrirsjáanlegar áhættur og að leggja skal mat á áætlaðan kostnað.
• Notkun skal eftir því sem við á vera háð mannlegri íhlutun og eftirliti. Í öllum tilvikum skal gætt að mannlegri reisn notenda og annarra sem verkefnið hefur áhrif á.
• Öll notkun skal vera gagnsæ og rökstudd. Í því felst bæði að gervigreindarkerfi skal veita fullnægjandi upplýsingar um hvernig var komist að tiltekinni niðurstöðu og að upplýsa skal um gervigreindarnotkun og uppbyggingu ákvarðanatökuferla, þar með talið forsendur undirliggjandi algríms.
frammistaða gervigreindarkerfis getur verið breytileg eftir ýmsum þáttum, svo sem breytingum á gögnum, umhverfi eða hegðun notenda. Því er mikilvægt að frammistaða þess sé reglulega vöktuð með viðeigandi vísum og mælikvörðum. Þar skal sérstaklega skoða eftirfarandi:
• Settir séu árangursvísar og -mælikvarðar sem eru viðeigandi og til þess fallnir að mæla skilvirkni, gæði og árangur af notkun kerfisins.
• Árangursvísar og mælikvarðar séu gagnsæir og aðgengilegur hagaðilum.
• Árangursvísa og mælikvarða ætti að endurskoða og uppfæra reglulega til að endurspegla breytingar.
• Niðurstöður eftirlits og mælinga ætti að nota til að lagfæra og breyta hönnun, útfærslu eða þróun kerfis.

Nýtum tækifærin á ábyrgan hátt

Til þess að gervigreind geti skapað virði fyrir hið opinbera með skilvirkum hætti þarf að líta á hana sem tæki til nýsköpunar og eflingar þjónustu á sama tíma og henni er stjórnað með áherslu á siðferðileg og lagaleg viðmið.

Við gerð leiðbeiningnanna var stefna Íslands um gervigreind (2021) höfð til hliðsjónar, sem og  erlend viðmið um notkun gervigreindar hjá hinu opinbera, m.a. hjá hinum Norðurlöndunum og OECD. Þá byggist efnið á samráði við hagaðila innanlands. Við mótun þess var gervigreind notuð til að skerpa textann og koma með tillögur.

Efnið verður í stöðugri uppfærslu og er hér um að ræða fyrstu útgáfu. Öllum ábendingum er tekið fagnandi á [email protected]. 

Spjallmenni eru víða notuð í opinberri þjónustu en sú tækni byggir á gervigreind. Dæmi eru um að farsæl notkun spjallmenna geti aukið aðgengi að þjónustu enda hægt að leita svara hvenær sem er sólarhrings á sama tíma og tæknin minnkar álag á starfsfólk sem myndi annars svara með öðrum meira íþyngjandi þjónustuleiðum. Á Ísland.is hefur Askur-spjallmenni til að mynda aðstoðað hátt í 10.000 manns á mánuði og auðveldað almenningi að fá svör um allt milli himins og jarðar sem tengist opinberri starfsemi. Askur svaraði með fullnægjandi hætti í 83-85% tilfelli og endaði spjallið aðeins hjá manneskju í um 10% tilfella. Þrátt fyrir 78% aukna notkun á vef Ísland.is hefur með tilkomu snjallra lausna verið hægt að fækka mannlegum samskipum um 21%. Gögnin sem gervigreindin byggir svör sín á eru sett inn af starfsfólki opinberra stofnana og er því engin hætta á að Askur fari að nýta óviðeigandi efni í sínum svörum. Með þeim hætti er þróun gervigreindarinnar í mjög svo skilgreindu umhverfi sem er miðlægt stýrt en byggir ekki á upplýsingum af öllum veraldarvefnum.
Dæmi eru um það víðsvegar um heiminn að notkun gervigreindar hafi farið illa með mis miklum afleiðingum. Eitt þekkt dæmi er notkun hollenskra yfirvalda á gervigreind til að greina svik í velferðarkerfinu, nánar tiltekið barnaumönnunarbótum. Reikniritið setti upp kröfuhafa og merkti fullyrðingar út frá hættunni á að vera rangar. Reikniritið merkti ranglega meira en 20.000 foreldra sem svikara og óhóflega flaggaði fullyrðingum foreldra með tvöfalt ríkisfang. Þetta olli því að fjöldi fólks annað hvort fékk ekki bætur sem það hafði rétt á eða var látið endurgreiða bætur á röngum forsendum á 17 ára tímabili. Þetta dæmi sýnir hversu mikilvægt er að hafa sérstaka gætur á notkun gervigreindar þegar viðkemur ákvarðanir sem hafa bein áhrif á líf fólks og þegar slíkt er gert að fylgst sé sérstaklega með framkvæmdinni svo hægt sé að grípa hratt inni í ef merki eru um mistök.
Spunagreind er nýjasta afurð gervigreindarinnar og eru t.d. ChatGPT/Bard/BingChat dæmi um spunagreindarforrit sem aðgengileg eru á netinu. Þar er hægt að setja inn spurningu og kerfið kemur til baka með svör.
Notkun spunagreindar getur verið mjög mikil í opinberri starfsemi til að spara starfsfólki sporin en mikilvægt er að hafa eftirfarandi í huga:
1. Ekki nota viðkvæmar- og/eða persónugreinanlegar upplýsingar í „fyrirmælum“ (e. prompt.)
2. Verið meðvituð um að upplýsingarnar geta verið rangar.
3. Ekki nota spunagreindarforrit sem uppflettiforrit á borð við Google.
4. Ræðið ábyrga notkun við starfsfólk.
5. Kynnið ykkur kosti notkunar og deilið góðum árangurssögum.

Um síðuna 

Efni síðunnar er ætlað til leiðbeiningar fyrir opinbera aðila sem nýta eða hyggjast nýta sér gervigreind í starfsemi sinni. Þeim er ætlað að stuðla að því að opinberir aðilar nýti tækifæri gervigreindar til þess að bæta opinbera þjónustu og skilvirkni í störfum með ábyrgum, gagnsæjum og áreiðanlegum hætti.

Efninu er ekki ætlað að vera tæmandi um allt sem þarf að hafa í huga við notkun gervigreindar, heldur frekar veita almenna leiðsögn um þætti sem þarf að líta til þegar tækifæri gervigreindar eru nýtt í opinberri þjónustu. Vefsíðan verður uppfærð eftir tilefni og er hér um að ræða fyrstu útgáfu. Efnið er unnið af hálfu fjármála- og efnahagsráðuneytinu og háskóla-, iðnaðar- og nýsköpunarráðuneytinu í samvinnu við norsku stofnunina DigDir.

 

„Til þess að skilgreina hugtakið á einfaldan máta má segja að það sé leið okkar til að fá vélar, í víðum skilningi, til að vinna mannanna verk. Sé mannleg greind skilgreind sem hæfileikinn til að öðlast og nota þekkingu og hæfni þá er gervigreind sá hæfileiki að búa til tölvukerfi sem hefur hæfileika til að öðlast og nota þekkingu og hæfni. Þetta á sérstaklega við um verkefni sem aðeins maðurinn gat gert áður en gervigreind kom til sögunnar."

Úr Stefnu Íslands um gervigreind

Ísland í góðri stöðu til að nýta gervigreind í opinberri þjónustu

Fámenni Íslands og hátt stafrænt læsi gera það að verkum að íslenskt samfélag er í einstakri stöðu til að nýta gervigreind þvert á opinbera þjónustu. Þá styðja núverandi stafrænir innviðir og opinber gagnasöfn við þróun gervigreindarlausna, en möguleikar til þess eru háðir aðgangi að fullnægjandi gögnum.

Íslendingar bera tiltölulega mikið traust til opinberrar stjórnsýslu. Af því leiðir að á sama tíma og til staðar eru tækifæri til að byggja á þessu trausti og nýta tækninýjungar til að bæta opinbera þjónustu er einkar mikilvægt að standa vörð um þá stöðu og forðast breytingar sem eru til þess fallnar að draga úr traustinu.

Samkvæmt könnun fjármála- og efnahagsráðuneytisins frá 2023 hafa 43% þeirra ríkisaðila sem svöruðu könnuninni tekið upp gervigreind og 80% sjá möguleika til umbóta í starfsemi með nýtingu gervigreindar. Hefur hlutfallið hækkað töluvert frá 2020 þegar sömu spurningar voru lagðar fyrir.

Vefsíður um notkun gervigreindar 

Fréttir

Allar fréttir

Upplýsingatæknimál ríkisins

Endurnýjun eldri upplýsingakerfa Gervigreind hjá hinu opinberaStafrænt Ísland og opinber þjónusta Stefnumótun og samstarfStefnur Stjórnskipulag upplýsingatækniÖryggisflokkun gagna
Var efnið hjálplegt?
NeiJá
Takk fyrir

Ábendingin verður notuð til að bæta gæði þjónustu og upplýsinga á vef Stjórnarráðsins. Hikaðu ekki við að hafa samband ef þig vantar aðstoð.

Af hverju ekki?

Hafa samband

Ábending / fyrirspurn
Ruslvörn
Vinsamlegast svaraðu í tölustöfum

Ef um er að ræða áríðandi erindi til borgaraþjónustu utanríkisráðuneytisins þá skal senda póst á [email protected]

Upplýsingar um netföng, símanúmer og staðsetningu ráðuneyta